Multi-Agent LLMs Fail to Explore Each Other
多智能体LLM的探索失败与显式探索框架MACE
🧭 多智体协作中显式探索方法 ★ 深度解读
University of Wisconsin–Madison · University of California, Santa Barbara
发现LLM agent在多智能体环境中普遍探索不足,提出MACE通过上下文赌博机显式引导探索,显著提升协作质量
📌 工作参考价值(4 点)
- 在多智能体协作场景(如多agent推荐、多agent竞价)中,LLM原生缺乏有效探索,容易过早锁定次优agent。可借鉴MACE的LinUCB框架,将agent选择建模为上下文赌博机,通过显式不确定性奖励驱动探索,避免in-context selection的过早收敛。
- 特征工程上,可设计关系特征:agent响应与当前答案的差异(信息增益潜力)、agent之间的差异性、历史准确率、交互轮次。这些特征能编码协作的结构化信息,比单纯的计数或成功率更有效。
- 在线学习时,使用LinUCB维持设计矩阵A和奖励向量b,利用公式(4)选择agent,实时更新(5)。该方法轻量,无需复杂协调协议,适合工程化。
- 理论表明,agent能力异质性越大,探索收益越高。当agent池存在显著能力差异(如不同模型、不同专家)时,应加大探索系数。对于能力相近的agent,探索价值有限,可适当降低探索。